Введение в теорию вероятностей: Сила эмпирического эксперимента

Как найти вероятность выигрыша в игре, состояние которой превышает количество атомов во Вселенной? Когда аналитическая математика становится непреодолимой, мы обращаемся к лаборатории компьютера. Симуляция: Этот метод эмпирического определения вероятностей с помощью экспериментов известен как симуляция, выступая в качестве моста между теоретической вероятностью и практическим применением.

Архитектура эксперимента

В основе каждой симуляции лежит воспроизведение случайных процессов. Вместо решения уравнения в замкнутой форме мы моделируем поведение системы через повторные испытания. Чтобы преобразовать эти физические результаты в математические данные, мы используем Индикаторные переменные.

Определение исходов

Для количественной оценки исходов мы определяем случайные величины, отражающие успех или неудачу события. Например, в игре с кубиками:

$$X = \begin{cases} 1 & \text{если сумма очков на кубиках равна 6} \\ 0 & \text{в противном случае} \end{cases}$$

Ожидаемое значение как вероятность

Для более сложных игр, таких как «Пасьянс», мы определяем $X_i$ как результат $i$-го испытания:

$$X_i = \begin{cases} 1 & \text{если $i$-я игра завершается победой} \\ 0 & \text{в противном случае} \end{cases}$$

Ключевым является то, что ожидаемое значение $E[X_i] = P\{\text{победа в пасьянсе}\}$.

Теоретическая сходимость

Почему это работает? Корректность симуляции основана на Сильной законе больших чисел (СЗБЧ). Мы определяем нашу оценку как выборочное среднее:

$$\sum_{i=1}^n \frac{X_i}{n} = \frac{\text{число выигранных игр}}{\text{число сыгранных игр}}$$

Это несмещённая оценка. Согласно сильному закону больших чисел, мы знаем, что $\sum_{i=1}^n \frac{X_i}{n}$ с вероятностью 1 сходится к $P\{\text{победа в пасьянсе}\}$ при $n \to \infty$.

Пример: Парадокс пасьянса

Представьте, что нужно вычислить точную вероятность выигрыша в сложной игре «Пасьянс». Аналитическая комбинаторика почти невозможна из-за огромного количества возможных состояний колоды. Вместо этого мы программируем компьютер для игры в $n = 1 ext{ млн}$ партий по фиксированной стратегии. Отслеживая $X_i$ для каждой игры, получаем дробь выигранных партий — высокоточную оценку вероятности победы, которую невозможно получить стандартными методами подсчёта.

🎯 Основной принцип

Симуляция преобразует задачу вероятности в статистическую задачу оценивания. Используя СЗБЧ, мы заменяем математическую неразрешимость на вычислительное повторение.

ВОПРОС 1

В контексте симуляции, какова основная роль индикаторной переменной $X_i$?

Служить семяком для генератора случайных чисел

Отображать качественный исход «победа» или «поражение» в числовой вид (1 или 0)

Вычислить дисперсию размера выборки

Определить количество испытаний $n$, необходимых для сходимости

ВОПРОС 2

Какой математический закон гарантирует, что наша оценка симуляции будет приближаться к истинной вероятности при очень большом $n$?

Центральная предельная теорема

Теорема Байеса

Сильный закон больших чисел

Закон полной вероятности

ВОПРОС 3

Если мы смоделировали 10 000 партий пасьянса и выиграли 1 200 из них, какова наша оценка для $E[X_i]$?

0,12

1 200

0,88

Не может быть определено без семени

ВОПРОС 4

Почему симуляция часто предпочитается замкнутым аналитическим решениям для сложных систем?

Симуляция всегда точна на 100%, независимо от $n$

Аналитические решения могут быть математически неразрешимыми для пространств высокой размерности

Симуляция не требует случайных чисел

Аналитические решения работают только для дискретных переменных

ВОПРОС 5

Согласно определению, что такое симуляция?

Способ решения дифференциальных уравнений с использованием пределов

Метод эмпирического определения вероятностей с помощью экспериментов

Процесс генерации только простых чисел

Исследование итераций неподвижных точек в математическом анализе

Вызов: Алгоритмическая эффективность и аппроксимация

Механика симуляции

Переход от теории сходимости к реализации требует понимания того, как мы генерируем данные, и как применяем их к непрерывной математике.

10.1

Проанализируйте следующее: алгоритм генерирует случайную перестановку чисел $1, \dots, n$. Он быстрее стандартных методов, потому что ни одна позиция не фиксируется до конца. Если $P(i)$ представляет элемент на позиции $i$, как обеспечивается «справедливость» этого алгоритма?

Решение преподавателя:
В стандартных алгоритмах, как только элемент помещается в последнюю позицию, он фиксируется. В этой альтернативной версии алгоритм обычно выполняет один проход, при котором каждая позиция $i$ меняется местами со случайной позицией $j$, выбранной из всего множества $\{1, \dots, n\}$. Хотя поток немного отличается, справедливость (равномерность) сохраняется, потому что существует $n^n$ возможных путей для алгоритма, которые отображаются на $n!$ перестановок так, что каждая перестановка равновероятна. Ключевым моментом является то, что вероятность любого элемента оказаться в любой конкретной позиции остаётся $1/n$.

10.12

Объясните, как можно использовать случайные числа для приближённого вычисления $\int_0^1 k(x) \, dx$, где $k(x)$ — произвольная функция.

Решение преподавателя:
Пусть $U$ — равномерно распределённая случайная величина на интервале $(0, 1)$. Ожидаемое значение $E[k(U)]$ определяется как $\int_0^1 k(x) f_U(x) \, dx$. Поскольку плотность вероятности $f_U(x) = 1$ для $x \in (0,1)$, следует, что $E[k(U)] = \int_0^1 k(x) \, dx$.

Для приближённого вычисления интеграла с помощью симуляции:
1. Генерируем $n$ независимых случайных чисел $U_1, U_2, \dots, U_n$ из распределения $Unif(0,1)$.
2. Вычисляем функцию в этих точках, чтобы получить $k(U_1), k(U_2), \dots, k(U_n)$.
3. Вычисляем выборочное среднее: $\frac{1}{n} \sum_{i=1}^n k(U_i)$. Согласно Сильному закону больших чисел, это среднее сходится к интегралу при $n \to \infty$.